Kovač ra mắt quốc tế trong trận giao hữu của Croatia với Morocco vào ngày 11 tháng 12 năm 1996 tại Casablanca.[8] Sau đó, ông cũng xuất hiện trong 3 trận đấu vòng loại FIFA World Cup 1998, nhưng đã bỏ lỡ vòng chung kết ở Pháp vì không kịp bình phục chấn thương trước giải đấu. Sau đó ông không được gọi vào đội tuyển quốc gia trong 2 năm, trước khi trở lại trong trận giao hữu với Pháp vào tháng 11 năm 1999.

Ở cấp độ quốc tế, Kovač đã chơi cho Croatia trong 5 trận đấu vòng loại World Cup 2002 và ghi 1 bàn trong chiến thắng 4-0 của Croatia trước San Marino. Tại vòng chung kết, ông ra sân ngay từ đầu trong cả ba trận đấu vòng bảng, trước khi Croatia bị loại vì chỉ xếp thứ 3. Ông cũng tham dự nhiều trận vòng loại Euro 2004, có 7 lần ra sân và ghi hai bàn thắng trong các trận đấu trên sân khách, đó là trận thắng 1-0 trước Estonia và bàn thắng mở tỷ số trong chiến thắng 3-0 trước Andorra. Ông cũng đã chơi toàn bộ 3 trận đấu vòng bảng tại vòng chung kết Euro 2004 ở Bồ Đào Nha và ghi bàn thắng trong trận đấu cuối cùng với đội tuyển Anh. Tuy nhiên, Croatia đã thua 4-2 và một lần nữa bị loại khỏi giải đấu với vị trí thứ 3 trong bảng.

Sau Euro 2004, Kovač trở thành đội trưởng của đội tuyển quốc gia Croatia và dẫn dắt đội bóng vượt qua chiến dịch vòng loại vòng chung kết FIFA World Cup 2006 tại Đức. Ông đã xuất hiện 9 trong 10 trận đấu vòng loại và ghi được 2 bàn thắng, cả hai bàn ghi trong chiến thắng 4-0 của Croatia trước Iceland trên sân nhà ở Zagreb. Tại vòng chung kết, ông thi đấu trong cả ba trận đấu của đội tuyển Croatia, mặc dù phải chịu một chấn thương khiến ông phải rời sân sau 40 phút của trận đấu mở màn với Brazil. Kovač đã ghi bàn thắng giúp Croatia vượt lẻn 2-1 trong trận đấu cuối cùng với Australia.[9] Tuy nhiên, trận đấu đã kết thúc với tỷ số hòa 2-2 và Croatia đã bị loại do một lần nữa đứng thứ 3 trong bảng. Đây là lần thứ 3 liên tiếp Croatia đứng thứ 3 vòng bảng tại một giải đấu lớn.

Euro 2008, giải đấu lớn cuối cùng mang lại nhiều vui buồn lẫn lộn cho đội trưởng Kovač. Những màn trình diễn của ông trước Đức và Thổ Nhĩ Kỳ đã không được đền đáp. Trận gặp Đức, ông là cầu thủ xuất sắc nhất trận, đá cặp cùng với Luka Modrić. Trận gặp Thổ Nhĩ Kỳ, ông hạn chế được rất nhiều pha bóng nguy hiểm từ xa của đối thủ. Trước và sau trận đấu đó, Kovač đã nhắc lại ý định giã từ đội tuyển sau Euro 2008, tuy nhiên, sau cuộc trò chuyện với huấn luyện viên Slaven Bilić, ông thay đổi ý định.

Kovač cuối cùng đã tuyên bố giã từ sự nghiệp quốc tế vào ngày 7 tháng 1 năm 2009, vì muốn các cầu thủ trẻ hơn được trao cơ hội ở đội tuyển Croatia.